Khang Hi Đế tên thật là Huyền Diệp (玄燁; tiếng Mãn: ᡥᡳᠣᠸᠠᠨ
ᠶᡝᡳ, Möllendorff: hiowan yei, Abkai: hiuwan yei), họ Ái Tân Giác La, sinh vào ngày 18 tháng 3 năm Thuận Trị thứ 11 (1654) tại Cảnh Nhân cung, Tử Cấm Thành, Bắc Kinh. Ông là con trai thứ ba của Thanh Thế Tổ Thuận Trị Hoàng đế, mẹ ông là Hiếu Khang Chương hoàng hậu Đông Giai thị, vốn là Hán Quân Chính Lam kỳ, sau được nhập vào Mãn Châu Tương Hoàng kỳ.

Từ nhỏ, Huyền Diệp đã được chú ý dạy dỗ chu đáo và tỏ ra thông minh ham học, lên 5 tuổi bắt đầu học hành[3][4]. Khoảng lúc này, ông bị mắc bệnh đậu mùa, gần như là một loại bệnh không thể nào chữa trị được, thế nhưng ông cuối cùng lại sống sót qua khỏi, điều này đã khiến cha ông là Thuận Trị Đế ấn tượng và chú ý ông hơn. Nhà Hán học Herbert Giles ghi chép lúc đương thời, mô tả ông là một người tương đối cao và có thân hình cân đối, ông rất thích các môn thể dục hay luyện tập của phái nam và dành hẳn 3 tháng mỗi năm để thực hiện săn bắn, một loại hình vận động truyền thống của các Hoàng đế thời cổ đại. Mắt ông to và sáng bừng cả mặt, có thể thấy vài đốm nhỏ do di chứng của căn bệnh đậu mùa[5].

Năm Thuận Trị thứ 18 (1661), ngày 2 tháng 1 (âm lịch), Huyền Diệp mới lên 8 tuổi thì Thuận Trị Đế đã lâm bệnh nặng nằm liệt giường. Mẹ của Thuận Trị Đế, cũng là bà nội của Huyền Diệp là Hiếu Trang Hoàng thái hậu ủng hộ việc lập Huyền Diệp lên kế vị. Thuận Trị Đế bèn tuyên bố lấy cớ Huyền Diệp từng mắc đậu mùa mà khỏi, cho là điềm lành, ra chỉ bố cáo lập [Hoàng tử Huyền Diệp trở thành Hoàng thái tử], đồng thời bổ nhiệm 4 đại thần làm phụ chính là Sách Ni, Tô Khắc Tát Cáp, Át Tất Long và Ngao Bái[6]. Sang ngày 6 tháng 1 (tức ngày 4 tháng 2 dương lịch) cùng năm, Thuận Trị Đế giá băng. Ngày 7 tháng 2 (tức ngày 5 tháng 2 dương lịch), Hoàng thái tử Huyền Diệp đăng cơ. Định sang năm sau (1662) đổi niên hiệu là Khang Hi (康熙), sử gọi là Khang Hi Đế (康熙帝).